PCTD: Preference-Guided Counterfactual Task Decomposition for Agent Tool Retrieval
基于反事实与偏好引导的 Agent 任务分解及工具检索
🧭 因果推理与偏好建模联合优化 Agent 任务分解 ★ 深度解读
Northeastern University · Honor Device Co., Ltd · Beijing University of Posts and Telecommunications
通过反事实奖励消除虚假相关、偏好建模约束结构质量，缓解 RL 任务分解中的奖励黑客与重复生成
📌 工作参考价值（4 点）
- 奖励设计避免表面相关：工具检索任务中，直接用 Recall/NDCG 作为奖励会导致模型通过重复分解、关键词堆砌等捷径提升指标，可引入「去分解基线」计算反事实增益，切断虚假相关，提升泛化性。
- 分解质量的结构化监督：单纯用检索指标缺乏对分解逻辑连贯性、原子性等结构质量的约束，可训练偏好奖励模型（PRM）评估分解结果，提供稠密的结构化学习信号，抑制冗余生成。
- 多轮交互数据集构造：利用状态机驱动的自动生成框架，可大规模构建带有细粒度标注（对话状态、意图演化、原子任务）的多轮对话数据，用于评估和训练任务分解模型。
- GRPO 训练技巧：采用群组相对策略优化（GRPO）替代 Critic 网络，通过组内标准化估计优势函数，降低内存开销，适合在分解策略优化中快速迭代。